![כיפת הברזל של מודלי השפה [עושים תוכנה]](https://d3wo5wojvuv7l.cloudfront.net/t_rss_itunes_square_1400/images.spreaker.com/original/a23dca4f8dc6eea05ef015f5f4f74624.jpg "כיפת הברזל של מודלי השפה [עושים תוכנה]")
כיפת הברזל של מודלי השפה [עושים תוכנה]
Update: 2024-11-04
Description
מודלי השפה הגדולים כובשים את עולם הפיתוח – אבל עם הכוח הרב שלהם מגיעים גם סיכונים. בדאטה שעליו הם אומנו יש לפעמים תוכן בעייתי; משתמש יצירתי עלול לחלץ מתוכם מידע רגיש; ובכלל – ניתן לעשות איתם שימוש שעומד בניגוד למטרות המוצר או החברה. איך מתגוננים מפני כל זה?
ניב רבין, Principal Software Architect בסייברארק, הגיע לאולפן יחד עם עמיתו לחברה, רן בר-זיק (שאותו אין צורך להציג) ויחד דיברנו על טכניקות הגנתיות בעבודה עם מודלי שפה גדולים. מה עושים Guardrails ואיך עובדים איתם? איך מונעים ממשתמשים להכניס פרטים שלא כדאי שיכניסו, כמו מספרי תעודת זהות? כיצד נעזרים במודל שפה נוסף, לצד המודל הבסיסי, כדי לשמור ולפקח על מה שנכנס ויוצא? ואיך כל זה קשור לקומיקס של xkcd?
האזנה נעימה,
בועז לביא
ניב רבין, Principal Software Architect בסייברארק, הגיע לאולפן יחד עם עמיתו לחברה, רן בר-זיק (שאותו אין צורך להציג) ויחד דיברנו על טכניקות הגנתיות בעבודה עם מודלי שפה גדולים. מה עושים Guardrails ואיך עובדים איתם? איך מונעים ממשתמשים להכניס פרטים שלא כדאי שיכניסו, כמו מספרי תעודת זהות? כיצד נעזרים במודל שפה נוסף, לצד המודל הבסיסי, כדי לשמור ולפקח על מה שנכנס ויוצא? ואיך כל זה קשור לקומיקס של xkcd?
האזנה נעימה,
בועז לביא
Comments
Top Podcasts
The Best New Comedy Podcast Right Now – June 2024The Best News Podcast Right Now – June 2024The Best New Business Podcast Right Now – June 2024The Best New Sports Podcast Right Now – June 2024The Best New True Crime Podcast Right Now – June 2024The Best New Joe Rogan Experience Podcast Right Now – June 20The Best New Dan Bongino Show Podcast Right Now – June 20The Best New Mark Levin Podcast – June 2024
In Channel
Download from Google Play
Download from App Store
United States00:00
00:00
x
